Sĩ Nhiếp có tên biểu tự là Uy Ngạn (威彥), tổ tiên là người Vấn Dương nước Lỗ. Khi Vương Mãng thay ngôi Nhà Hán, tổ tiên Sĩ Nhiếp mới tránh loạn sang tỵ nạn Giao Châu, tới Nhiếp là sáu đời.

Cha ông tên là Sĩ Tứ (士賜), làm thái thú quận Nhật Nam thời Hán Hoàn Đế, cho Sĩ Nhiếp về du học ở kinh sư, theo học Lưu Tử Kỳ người Dĩnh Xuyên, chuyên trị sách Tả Thị Xuân Thu. Sĩ Nhiếp đỗ hiếu liêm, được bổ Thượng thư lang, vì việc công bị miễn chức, rồi về chịu tang cha. Sau lại đỗ Mậu tài, bổ làm Huyện lệnh Vu Dương, sau đổi làm Thái thú ở quận Giao Chỉ, được tước Long Độ Đình Hầu (龍度亭侯), "đóng đô" ở Luy Lâu (tức Long Biên).